#trajectory evaluation

3 篇

Prefix Executability: Evaluating Tool-Using Agents Beyond Final Success

前缀可执行性：评估工具使用代理超越最终成功率

🧭 Agent 工具调用轨迹评估

Oracle AI

提出前缀可执行性评估协议，量化工具调用轨迹每一步的可执行性，揭示仅看最终成功的盲区

📌 工作参考价值（4 点）

在电商客服、导购等工具型 Agent 评估中，不要只统计最终任务成功率；引入 Prefix Executability 指标（TER、FED、AUC-PEC）量化多步工具调用的轨迹可靠性，提前发现“最终成功但中间调用非法”的隐患。
可将显式 pre-execution plan checking 作为工作流校验层：在 Agent 执行 tool call 前检查工具 schema、状态前置条件和数据依赖，能提升可执行前缀生存率且不损失最终成功率，适合嵌入生产级 agent 编排。
用 First-Error Depth 定位首次失败步骤，结合 Recovery Rate 评估 Agent 从早期错误恢复的能力，用于线上故障归因和版本对比。
对订单处理、库存查询、营销活动配置等多轮工具调用场景有直接迁移价值，可在 A/B 测试中作为可靠性辅助指标。

Eval | 2026-10-29 | cs.CL | score 7/10

从证据到行动：工具型智能体如何失败

🧭 工具使用 Agent · 证据链评估 ★ 深度解读

National University of Singapore · Hong Kong Baptist University · Amazon Web Services · Princeton University

提出 SAFEACTBENCH，用确定性轨迹评估定位工具型智能体在证据建立、动作执行与依赖传播中的失败点

📌 工作参考价值（4 点）

在电商/客服等有状态操作（退款、订单修改、营销 push）上线前，可引入确定性证据链检查器：对每个副作用动作，验证其前置证据是否已通过工具调用建立，并绑定到正确的实体和当前状态，避免只看最终结果；不要用 LLM judge，用可重放的规则判断。
分离静态决策与交互执行的监控：静态判断准确率（Legacy）可能很高，但交互执行暴露过早行动（PAR）与调查未完成（BSR）等失败模式；建议在回归测试中持续追踪这些指标，尤其多步工作流。
多步 Agent 工作流中显式建模动作依赖 DAG，要求下游必须使用前置动作实际返回的字段（如 refund_id），不能使用相似值或其他实体结果；在测试集中加入 withheld/contradicted evidence 场景，验证 agent 是否仍坚持无证据行动。
证据缺失时，仅增加检索次数不一定会提高行动克制；requester 明确声明“已检查” 比直接提供证据包更能降低无证据行动概率，提示业务中需警惕 agent 对声明的过度信任。

Eval | 2026-10-05 | HF Daily | score 8/10

超越最终答案：审计多智能体工业工作流的轨迹级幻觉

🧭 工业多智能体轨迹级幻觉审计与实时监控 ★ 深度解读

IBM · Columbia University

提出 Trajel 基准，定义五种轨迹级幻觉类型，发现执行质量信号（如推理清晰度 AUC=0.908）比监督分类器更早预测幻觉，且 48.7% 的轨迹存在多类型共现。

📌 工作参考价值（4 点）

从最终输出看→轨迹级审计：在生成式推荐或电商智能客服等 Agent 工作流中，多数幻觉（如程序性跳过步骤、指代不存在的前序输出）仅凭最终回复无法发现。可将评测单元下沉到 Thought-Action-Observation 每一步，用细粒度标签（事实/指代/逻辑/程序/范围）诊断故障根因。
轻量级实时监控信号比复杂分类器更有效：实验中“清晰度与理由”（Clarity & Justification）这一执行质量信号单独 AUC 即达 0.908，远超微调 BERT/NLI/Longformer（最高 AUC 0.689）。在 Agent 循环中，可优先实现类似的低成本标记（如推理是否自洽、步骤是否完整）作为 Guardrail，在轨迹进行中即时切断高风险路径。
多智能体协同必须引入角色边界检查：范围性幻觉（正确的结论但由错误 Agent 声称）在工业多智能体系统中占比 19.8%，自动化检测器对此最不敏感。在电商多 Agent 系统（客服、推荐、订单等）中，应显式定义各 Agent 的职责规范，并在路由或汇总阶段校验输出是否越权。
幻觉诊断应支持多标签，而非二元判定：48.7% 的幻觉轨迹同时存在多种类型（如程序+事实），单纯有无幻觉的标记会掩盖故障组合。在召回或对话质量评估中，可以用多标签分类替代二元判断，辅助定向改进（如优化流程编排、加强事实校验）。

MultiAgent | 2026-05-25 | HF Daily | score 8/10